Seine Kindheit verbrachte Schmid in Südfrankreich bevor die Familie 1908 nach Stuttgart übersiedelte. Carlo Schmid besuchte hier das humanistische Karls-Gymnasium und legte in dem Frühjahr 1914 das Abitur ab. Er nahm dann von 1914 bis 1918 als Soldat am Ersten Weltkrieg teil. Danach absolvierte er ab 1919 ein Studium der Rechts- und Staatswissenschaften an der Universität Tübingen, welches er 1921 mit dem ersten und 1924 mit dem zweiten juristischen Staatsexamen beendete. 1923 erfolgte seine Promotion zu dem Dr. rer. pol.

Er ließ sich dann zunächst als Rechtsanwalt in Reutlingen nieder, trat aber schon 1925 als Gerichtsassessor in den Justizdienst des Landes Württemberg ein. Von 1927 bis 1931 war er als Richter am Amtsgericht bzw. später als Landgerichtsrat in Tübingen tätig.

Von 1927 bis 1928 war er für eine Tätigkeit als Referent am Kaiser-Wilhelm-Institut für ausländisches Öffentliches Recht und Völkerrecht in Berlin beurlaubt. 1929 erfolgte seine Habilitation mit einer Arbeit über die Rechtsprechung des Ständigen Internationalen Gerichtshofes an der Universität Tübingen. Von 1930 bis 1940 war er hier dann als Privatdozent tätig. Eine Berufung oder eine Beförderung Schmids wurde von den Nationalsozialisten aus politischen Gründen abgelehnt.

1940 wurde er zur Wehrmacht einberufen und war hier bis 1944 als juristischer Berater der Oberfeldkommandantur in Lille / Frankreich zugeteilt.

1946 nahm er dann den Ruf der Universität Tübingen auf den Lehrstuhl für Öffentliches Recht an. 1953 folgte er dann dem Ruf der Universiät Frankfurt am Main auf den Lehrstuhl für Politische Wissenschaften.

Nach dem Krieg wurde Schmid Mitglied der SPD. Von 1946 bis 1950 war er SPD-Landesvorsitzender in Südwürttemberg. Von 1947 bis 1970 war er Mitglied in dem SPD-Parteivorstand. Von 1958 bis 1970 gehörte er außerdem dem Präsidium der SPD an und war hier maßgeblich an der Ausarbeitung des Godesberger Programms beteiligt.

Von 1948 bis 1949 war Schmid Mitglied des Parlamentarischen Rates. Hier war er Vorsitzender der SPD-Fraktion und des Hauptausschusses. Schmid hatte bereits am Verfassungskonvent auf Herrenchiemsee teilgenommen und trat in dem Parlamentarischen Rat u.a. am 8.09 1948 durch eine Grundsatzrede und das auf seine Initiative in das Grundgesetz übernommene konstruktive Misstrauensvotum hervor.

Von 1949 bis zu seinem Verzicht 1972 war er Mitglied des Deutschen Bundestages. Hier war er von 1949 bis 1966 sowie von 1969 bis 1972 Vizepräsident des Deutschen Bundestages. Carlo Schmid vertrat während seiner gesamten Zugehörigkeit zu dem Deutschen Bundestag als direkt gewählter Abgeordneter den Wahlkreis Mannheim I.

Von 1950 bis 1960 sowie von 1969 bis 1973 gehörte er der Beratenden Versammlung des Europarates in Straßburg an. Von 1963 bis 1966 war er Präsident der Versammlung der Westeuropäischen Union in Paris.

1945 wurde er von der französischen Militärverwaltung zu dem Präsidenten des Staatssekretariats für die Französische Besatzungszone ernannt. Gleichzeitig übernahm er das Amt des Landesdirektors für das Unterrichtswesen und die kulturellen Angelegenheiten in der von der französischen Militärregierung eingesetzten Landesverwaltung. Bis zu den Landtagswahlen 1947 war Carlo Schmid Präsident der provisorischen Regierung von Württemberg-Hohenzollern. Danach war er von 1947 bis zu dem 1.05 1950 Justizminister und Stellvertretender Staatspräsident in der von Lorenz Bock (CDU) bzw. dessen Nachfolger Gebhard Müller geführten Staatsregierung des Landes Württemberg-Hohenzollern.

Bei der Bundespräsidentenwahl 1959 unterlag er als Kandidat der SPD dem ehemaligen Bundesminister für Ernährung, Landwirtschaft und Forsten Heinrich Lübke (CDU) in dem zweiten Wahlgang.

Am 1.12 1966 wurde er als Bundesminister für Angelegenheiten des Bundesrates und der Länder in die von Bundeskanzler Kurt Georg Kiesinger geführte Bundesregierung der Großen Koalition berufen. Nach der Bundestagswahl 1969 schied Schmid am 21.10 1969 aus der Bundesregierung aus.

Von 1969 bis zu seinem Tode war er Koordinator für die deutsch-franzöischen Beziehungen.

• 1955 wurde ihm das Großkreuz des Verdienstordens der Bundesrepublik Deutschland verliehen.